Durante las elecciones presidenciales de Estados Unidos, se descubrió que el chatbot Grok de X estaba difundiendo información errónea. Según las pruebas de TechCrunch, Grok cometió errores frecuentes al responder preguntas sobre los resultados electorales, incluso llegó a declarar que Trump había ganado estados clave en disputa, a pesar de que el recuento y los informes de esos estados aún no habían finalizado. En una entrevista, Grok afirmó repetidamente que Trump había ganado las elecciones de 2024 en Ohio, a pesar de que no era cierto. La fuente de la información errónea parece provenir de tuits de diferentes años electorales y de un lenguaje engañoso.

Dos artículos revelan que el contenido generado por IA generativa puede considerarse "disparate", destacando que su desprecio por la precisión supone un desafío para los profesionales que trabajan con el público. La información errónea producida por la IA generativa difiere de las mentiras intencionadamente engañosas; los artículos defienden que el término "disparate" es más preciso y ayuda a mejorar la comprensión pública de la tecnología. Actualmente, la legislación sobre IA es insuficiente para prevenir eficazmente los daños causados por este tipo de información errónea. Los autores sugieren la incorporación de regulaciones similares a las del sector editorial, haciendo hincapié en evitar las "declaraciones imprudentes" que puedan causar daño social, y garantizando que la verdad no sea múltiple.

Un informe reciente revela que Perplexity, una herramienta de búsqueda con IA muy popular y bien financiada, está utilizando información de baja calidad, incluso errónea, generada por IA a partir de blogs y publicaciones de LinkedIn poco confiables.

Un estudio ha revelado que los modelos de lenguaje grandes, como ChatGPT, repiten con frecuencia información errónea, como teorías conspirativas y estereotipos dañinos. Se descubrió que GPT-3 comete errores frecuentes, se contradice a sí mismo en una misma respuesta y repite información errónea dañina. Los investigadores utilizaron cuatro plantillas de encuesta diferentes que abarcaron seis categorías de información veraz y errónea.